11月1日，全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會（以下簡稱“信安標(biāo)委”）2023年第二次標(biāo)準(zhǔn)周全體會議在武漢舉行。會議以“網(wǎng)絡(luò)安全標(biāo)準(zhǔn)引領(lǐng)人工智能產(chǎn)業(yè)健康發(fā)展”為主題，重點圍繞生成式人工智能安全相關(guān)國家戰(zhàn)略、法規(guī)和政策要求，探討生成式人工智能安全技術(shù)發(fā)展趨勢，交流網(wǎng)絡(luò)安全標(biāo)準(zhǔn)引領(lǐng)人工智能產(chǎn)業(yè)和生態(tài)建設(shè)需求。天融信科技集團(tuán)董事長兼CEO李雪瑩博士受邀出席全體會議并發(fā)表主題演講，探討人工智能與網(wǎng)絡(luò)安全融合發(fā)展的新方向、新思路。

近年來，中國人工智能產(chǎn)業(yè)在政策與技術(shù)雙重驅(qū)動下呈現(xiàn)高速增長態(tài)勢。據(jù)相關(guān)數(shù)據(jù)顯示，中國人工智能產(chǎn)業(yè)蓬勃發(fā)展，核心產(chǎn)業(yè)規(guī)模達(dá)到5000億元，企業(yè)數(shù)量超過4300家，創(chuàng)新成果不斷涌現(xiàn)。隨著人工智能與網(wǎng)絡(luò)安全的快速融合發(fā)展，新技術(shù)與新應(yīng)用不斷涌現(xiàn)，網(wǎng)絡(luò)安全領(lǐng)域面臨的風(fēng)險與挑戰(zhàn)也日趨嚴(yán)峻。

天融信科技集團(tuán)董事長兼CEO 李雪瑩博士

“AI是用交叉學(xué)科融合的方式來研究和開發(fā)人類智能的一種技術(shù)。對網(wǎng)絡(luò)安全而言，AIGC正在使生產(chǎn)模式發(fā)生轉(zhuǎn)變，在增強(qiáng)檢測防護(hù)、提升交付能力、助力安全運(yùn)營和加速安全智能化等方面，實現(xiàn)了對網(wǎng)絡(luò)安全業(yè)務(wù)的‘提質(zhì)增效’，為網(wǎng)絡(luò)安全領(lǐng)域帶來了新的發(fā)展機(jī)遇。同時，AIGC也在一定程度上推動著整個社會生產(chǎn)模式發(fā)生變化”。天融信科技集團(tuán)董事長兼CEO李雪瑩博士在《AI融合網(wǎng)絡(luò)安全技術(shù)變革的新篇章》主題演講中表示。

伴隨AI發(fā)展的三個浪潮，AIGC經(jīng)歷萌芽、積累階段，生成式人工智能（AIGC）已邁入飛躍階段。大模型大“火”之前，網(wǎng)絡(luò)安全領(lǐng)域就已將人工智能的預(yù)測、分析、抽取等能力，應(yīng)用于威脅檢測、惡意流量檢測、威脅情報分析、行為分析、安全知識生產(chǎn)、數(shù)據(jù)分類分級等業(yè)務(wù)場景。但由于數(shù)據(jù)標(biāo)注成本高、單體算力有限以及模型生成和決策能力不足等問題，人工智能賦能網(wǎng)絡(luò)安全仍存在局限性。大模型的出現(xiàn)，給AI的發(fā)展帶來了新的突破與轉(zhuǎn)變。

其一，改變了模型的構(gòu)建方式，以模型為中心的AI逐步向以數(shù)據(jù)為中心的AI轉(zhuǎn)變；

其二，提升了零樣本和小樣本的學(xué)習(xí)能力，AIGC正在使生產(chǎn)模式發(fā)生轉(zhuǎn)變。

AI賦能網(wǎng)絡(luò)安全技術(shù)變革

信息化技術(shù)應(yīng)用、安全威脅變化和國家政策法規(guī)是網(wǎng)絡(luò)安全產(chǎn)業(yè)發(fā)展的三大驅(qū)動力，AI新突破也給“三大驅(qū)動力”帶來了新的變化。

● 智能場景不斷涌現(xiàn)，大模型技術(shù)加速了數(shù)字化發(fā)展，給網(wǎng)絡(luò)安全帶來廣闊機(jī)遇；

● AI降低了攻擊門檻，使得攻擊手法更多、攻擊數(shù)量更大，加劇網(wǎng)絡(luò)安全威脅；

● 針對AI應(yīng)用的安全監(jiān)管評估體系、面向AI的網(wǎng)絡(luò)安全標(biāo)準(zhǔn)體系逐步完善，推動網(wǎng)絡(luò)安全建設(shè)落地。

人工智能可以說是一把雙刃劍，在與網(wǎng)絡(luò)安全融合發(fā)展、推動產(chǎn)業(yè)加速發(fā)展的同時，其背后隱藏著一系列安全風(fēng)險，對國家安全、社會安全、網(wǎng)絡(luò)安全及數(shù)據(jù)安全均提出了新的挑戰(zhàn)。今年7月，《生成式人工智能服務(wù)管理暫行辦法》的出臺，體現(xiàn)了現(xiàn)階段監(jiān)管機(jī)構(gòu)的態(tài)度，即“既要重視發(fā)展，也要重視風(fēng)險”，統(tǒng)籌生成式人工智能發(fā)展和安全已成為當(dāng)下關(guān)注的重點。系列政策法規(guī)以及標(biāo)準(zhǔn)的逐步完善給人工智能技術(shù)的發(fā)展指明新方向，依法合規(guī)使用技術(shù)并在監(jiān)管中不斷完善，才能更好地推動產(chǎn)業(yè)健康穩(wěn)定發(fā)展。

網(wǎng)絡(luò)安全標(biāo)準(zhǔn)引領(lǐng)AI發(fā)展

中央網(wǎng)信辦牽頭出臺了多項人工智能領(lǐng)域相關(guān)管理文件，信安標(biāo)委快速推進(jìn)人工智能相關(guān)國家標(biāo)準(zhǔn)的制定工作，在多層面保障和推動著技術(shù)發(fā)展。作為信安標(biāo)委等十余個標(biāo)準(zhǔn)化組織的成員單位，天融信累計參與國家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)300余項，也在積極參與多項AI相關(guān)標(biāo)準(zhǔn)的編制。今年5月，《人工智能安全標(biāo)準(zhǔn)化白皮書（2023版）》正式發(fā)布，天融信作為網(wǎng)絡(luò)安全領(lǐng)域獨家參編單位，為《白皮書》編制貢獻(xiàn)了豐富的研究成果和實踐經(jīng)驗。

網(wǎng)絡(luò)安全創(chuàng)新實踐要從標(biāo)準(zhǔn)中來、到標(biāo)準(zhǔn)中去，以法律及標(biāo)準(zhǔn)為基礎(chǔ)實踐網(wǎng)絡(luò)安全保護(hù)，在實踐中探索可行的網(wǎng)絡(luò)安全方法及工具，以實踐經(jīng)驗促進(jìn)標(biāo)準(zhǔn)的不斷改進(jìn)、提升。未來，天融信將積極推動AIGC安全、AI系統(tǒng)安全、AI網(wǎng)安產(chǎn)品三大方面的標(biāo)準(zhǔn)建設(shè)，全力支撐人工智能相關(guān)管理政策，構(gòu)建完善的人工智能安全保障體系，促進(jìn)人工智能技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用。

TOPSEC

人工智能技術(shù)的不斷突破帶來了新的挑戰(zhàn)與機(jī)遇。多年來，天融信持續(xù)關(guān)注人工智能的變革與發(fā)展，以“提質(zhì)增效”為目標(biāo)，不斷拓展人工智能技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域的技術(shù)革新與應(yīng)用，積極推動人工智能與網(wǎng)絡(luò)安全領(lǐng)域有機(jī)融合，譜寫網(wǎng)安發(fā)展新篇章。